Sarah Newman está colecionando segredos. Mais especificamente, ela está colecionando segredos sobre inteligência artificial. 

Em conferências e outros eventos, ela coloca uma caixa de madeira e convida os transeuntes a revelarem anonimamente as maneiras como estão utilizando essa tecnologia poderosa e em rápida expansão.

"Escrevi um discurso com IA sobre um tema que desconheço completamente", escreveu um confessor anônimo. 

“Usar IA para redigir políticas oficiais sem necessariamente divulgá-las”, escreveu outro. 

Newman, diretora de arte e educação do metaLAB em Harvard , observa muita incerteza e angústia no ar. O objetivo de seu projeto é promover a discussão sobre o uso pessoal da IA em um momento em que sua disseminação já ultrapassou a capacidade de empresas e instituições de definir o que é apropriado em cada caso.

“As pessoas não sabem quais são as regras”, disse ela. “Não existem normas compartilhadas estabelecidas sobre o uso da IA — o que é apropriado e o que não é, em diferentes contextos — incluindo quando se deve divulgar o uso.” 

Desde o lançamento, em 2022, do popular modelo de linguagem de grande porte ChatGPT, empresas, escolas e universidades, assim como jornais e editoras, têm tentado encontrar uma solução para o problema.

Mas esses esforços têm sido complicados pela característica definidora da tecnologia — sua capacidade de imitar a produção humana. Isso significa que pode ser difícil, senão impossível, para as instituições fiscalizarem se os usuários estão trapaceando. 

E houve acusações recentes de uso indevido de grande repercussão.

Em maio, a revista literária britânica Granta respondeu às alegações de que um de seus contos premiados, "A Serpente no Bosque", de Jamir Nazir, teria sido gerado por inteligência artificial. (Nazir negou ter usado IA para escrever a obra.)

Em outro caso, o autor de um livro sobre a verdade na era da IA admitiu ter usado a tecnologia na escrita da obra, depois que o The New York Times identificou citações atribuídas erroneamente ou fabricadas no texto.

Além disso, veículos de notícias e redes sociais têm divulgado constantemente reportagens sobre o uso de IA em votos de casamento , mensagens em aplicativos de namoro ou elogios fúnebres.

As consequências sociais de toda essa incerteza ainda não estão claras. Mas áreas como o jornalismo já foram afetadas.

“O que estamos vendo, na verdade, é o público presumindo que a mídia real é gerada por IA, e essa é uma tendência realmente preocupante para mim”, disse Andrew Deck , repórter que cobre IA na indústria para o Nieman Journalism Lab, afiliado a Harvard. “Isso indica que, para alguns públicos, de certa forma, a suposição padrão hoje em dia é que algo é falso, em vez do contrário.” 

Na verdade, disse Deck, muito pouco conteúdo em veículos de notícias respeitáveis é gerado usando IA. Os repórteres usam IA principalmente para coisas como transcrever reuniões, encontrar fontes ou desenvolver ideias para títulos. Mas eles fazem isso em meio a uma confiança historicamente baixa nas organizações de notícias.

No ano passado, o Pew Research Center relatou que cerca de 56% dos adultos americanos tinham "muita" ou "alguma" confiança nas informações provenientes de veículos de notícias nacionais, uma queda de 20 pontos percentuais em relação a 2016. A inteligência artificial, com sua reputação de produzir alucinações com certeza absoluta, representa um desafio para um setor baseado na precisão e que luta contra o que Deck chamou de "crise de confiança". 

Segundo Deck, o uso de rótulos por IA "parece uma forma de indicar aos leitores ou ao público que talvez devam ter uma camada adicional de ceticismo".

Mas a transparência nem sempre é uma solução simples. "Assistido por IA" pode significar, em teoria, qualquer coisa, desde uma busca rápida na fonte no Perplexity até uma revisão editorial que se assemelhe mais a uma reescrita.

Parece que os problemas relacionados à incerteza quanto aos padrões de qualidade chegaram até mesmo às famílias.

Leah Plunkett , professora de Direito da Cátedra Meyer na Faculdade de Direito de Harvard e associada do corpo docente do Centro Berkman Klein para Internet e Sociedade, é especialista em tecnologia digital, juventude e famílias.

Em seu trabalho com escolas de ensino fundamental e médio, ela percebeu que as crianças estão muito atentas a sinais de que adultos em suas vidas usaram IA quando elas mesmas foram proibidas de fazê-lo. 

“Eles têm uma antena, como crianças e adolescentes — especialmente os adolescentes — para a potencial hipocrisia ou padrões duplos”, disse ela. “Pode ser difícil fazê-los entender que, na verdade, diferentes funções em um ecossistema escolar ou comunitário sempre foram permitidas e, às vezes, exigidas, assim como diferentes ferramentas e recursos, porque desempenham atividades diferentes.”

Newman, do metaLAB, é fascinada por segredos e pela razão pela qual sentimos a necessidade de guardá-los há muito tempo. Um projeto desenvolvido entre 2016 e 2021, intitulado " O Futuro dos Segredos ", que examinou por que compartilhamos tanto com nossos dispositivos digitais, foi exibido internacionalmente. Ela moderou um painel do metaLAB sobre IA, sigilo e divulgação nesta primavera. 

Newman acredita que as normas para o uso da IA ficarão mais claras nos próximos meses e anos. Ela acrescentou, no entanto: “Não devemos esperar que as normas simplesmente surjam. Devemos refletir sobre o nosso próprio uso e, em seguida, ajudar a moldar as normas que desejamos ver.”

Assim como muitas pessoas, Newman disse ter uma relação de amor e ódio com a IA. Mas, segundo ela, “As pessoas não deveriam sentir necessidade de mentir. Deveríamos ter curiosidade — e até mesmo curiosidade — sobre nossos próprios sentimentos ambivalentes e trabalhar para normalizar o uso apropriado e responsável da IA.”

Newman atribui a ideia do projeto de segredos da IA à sua ex-assistente de pesquisa, Olivia Tai '22.

Tai é uma artista e facilitadora que publicou sua própria coleção de confissões anônimas . Ela espera que o projeto possa encorajar as pessoas a falarem mais abertamente sobre o uso da IA e a serem mais curiosas e compreensivas sobre como os outros veem o assunto.

“Assim como acontece com todos os assuntos tabus, quanto mais nos envergonhamos uns aos outros, menos produtivas se tornam nossas conversas”, disse ela. “Paramos de nos esconder quando sentimos alguma aceitação, compreensão e reconhecimento por parte dos outros.”